Dari Tartus, al-Qassam mengembara ke Beirut menggunakan bot dan seterusnya ke Haifa yang ketika itu di bawah Mandat British, di mana dia bersatu semula dengan isteri dan anak-anak perempuannya. Ketika itu beliau sudahpun dalam usia 40-an, dan memfokuskan kegiatannya pada golongan kelas bawahan. Beliau mengadakn kelas malam untuk pekerja buruh dan berdakwah kepada mereka sebagai imam di Masjid Istiqlal. Beliau juga mencari orang untuk didakwah dari jalanan sehinggalah ke dalam rumah-rumah pelacuran dan sarang penagih shisha. Beliau juga memimpin Jam'iyyat al-Shubban al-Muslimin (Pertubuhan Pemuda Islam) yang ditubuhkan di Mesir pada 1928. Kegiatan al-Qassam yang juga mempunyai hubungan dengan Part Istiqlal (Parti Kemerdekaan) di Palestin dibiayai oleh beberapa ahli perniagaan disebabkan oleh reputasinya.

Pada 1929 beliau dilantik menjadi qadi mahkamah Syariah Haifa. Jawatan itu membenarkannya melawat kampung-kampung di kawasan utara, di mana al-Qassam menggalakkan penduduknya membentuk koperasi petani. Beliau juga memanfaatkan lawatannya untuk menyampaikan khutbah agama dan politik di mana beliau menggalakkan menyusun penentangan untuk melawan British dan Yahudi. Beliau juga menggunakan fatwa yang dikeluarkan oleh Mufti Damsyik, Syeikh Badr ad-din al-Taji al-Hasani yang menyatakan bahawa perjuangan melawan British dan Yahudi adalah dibolehkan.